Menschliche Aufsicht und Eingriffspunkte

Die in OmbuDesk integrierten KI-Funktionen – darunter KI-Zusammenfassungen, Übersetzungen, Textvereinfachungen, Korrekturen sowie der Chatbot – dienen ausschließlich als unterstützende Assistenzsysteme für die Sachbearbeiter:innen. Das KI-System trifft keine autonomen Entscheidungen über den Ausgang eines Schlichtungsverfahrens. Die Letztverantwortung für die Fallbearbeitung und die ausgehende Kommunikation liegt stets bei der bearbeitenden Person.

Um einen sicheren und bestimmungsgemäßen Einsatz der Software zu gewährleisten, sind folgende Eingriffspunkte (Human-in-the-Loop) im Arbeitsalltag zwingend von allen Anwender:innen zu beachten:

• Überprüfung von KI-Zusammenfassungen: Die KI-Zusammenfassung bietet einen schnellen Überblick über den aktuellen Stand einer Akte. Bevor jedoch entscheidungsrelevante Schritte eingeleitet werden, muss der/die Sachbearbeiter:in die generierte Zusammenfassung stets kritisch würdigen und bei Bedarf anhand der zugrunde liegenden Originaldokumente (z. B. Antragsformulare, E-Mails der Parteien) auf inhaltliche Richtigkeit und Vollständigkeit überprüfen.
• Freigabe in der Kommunikation: Werden KI-Features wie die Übersetzung, Textvereinfachung oder Korrekturfunktion beim Verfassen von E-Mails genutzt, darf der generierte Text niemals ungeprüft versendet werden. Der/die Anwender:in muss den E-Mail-Entwurf vor dem Klick auf "Senden" vollständig lesen, inhaltlich bewerten und gegebenenfalls manuell anpassen, bevor die Nachricht an Antragssteller:innen oder Antragsgegner:innen übermittelt wird.
• Validierung von Chatbot-Auskünften: Antworten des OmbuDesk-Chatbots zu Falldetails oder als Ideengeber für nächste Schritte sind lediglich Empfehlungen. Der/die Sachbearbeiter:in muss diese Auskünfte fachlich validieren, bevor sie in die offizielle Fallbearbeitung übernommen werden.
• Jederzeitige Eingriffsmöglichkeit: Alle Nutzer:innen haben bei jedem Arbeitsschritt die vollständige Kontrolle über die Software. Von der KI generierte Entwürfe oder Zusammenfassungen können jederzeit ignoriert, manuell überschrieben oder gelöscht werden.